Sau khi ký Hiệp định, Hồ Chí Minh lập tức đã đưa Việt Minh hòa vào một mặt trận rộng lớn hơn, chủ trương đoàn kết một số đảng phái của Việt Nam, nhờ đó mà giảm sức ép chính trị. Ngày 27/5/1946, Hội Liên hiệp Quốc dân Việt Nam được thành lập với mục tiêu giữ vững quyền tự chủ để đi đến hoàn toàn độc lập.[11]

Ngày 15/6/1946, người lính cuối cùng của quân đội Trung Hoa Dân Quốc rời khỏi Việt Nam.[12] Các thành viên Việt Nam Quốc dân Đảng và Việt Nam Cách Mệnh Đồng minh hội đã lần lượt rút khỏi chính phủ Liên hiệp. Lãnh tụ đảng Việt Cách là Nguyễn Hải Thần và các thành viên Việt Quốc – Việt Cách khác trong chính phủ như Nguyễn Tường Tam, Vũ Hồng Khanh và cánh thân Tưởng do Vũ Hồng Khanh lãnh đạo lưu vong sang Trung Quốc. Các đảng viên Đại Việt phần lớn vẫn ở lại Việt Nam chờ thời cơ[13]. Nguyễn Tường Tam với tư cách Bộ trưởng Bộ ngoại giao dẫn đầu phái đoàn Việt Nam Dân chủ Cộng hòa tham gia Hội nghị trù bị tại Đà Lạt, nhưng do bất đồng đã không tham gia hầu hết các phiên họp[14], sau đó cũng không tham gia Hội nghị Fontainebleau, cuối cùng rời bỏ chính phủ.[15] Tài liệu của Đảng Cộng sản Việt Nam nhận định Nguyễn Tường Tam thiếu bản lĩnh chính trị, lập trường bấp bênh, biển thủ công quỹ rồi đào nhiệm sang nước ngoài.[16] Việc các thành viên chủ chốt của Việt Quốc, Việt Cách như Nguyễn Hải Thần, Nguyễn Tường Tam, Vũ Hồng Khanh rời bỏ chính phủ và đi sang Trung Quốc đã đánh dấu chấm hết cho thời kỳ hợp tác giữa Việt Minh và các đảng phái thân Trung Hoa tại miền Bắc, trong công cuộc "kháng chiến kiến quốc" mà Chính phủ Liên hiệp Kháng chiến là biểu tượng.

Trong lúc đó, Võ Nguyên Giáp từng bước tìm cách loại bỏ dần các đảng phái thân Trung Hoa như Việt Quốc, Việt Cách, Đại Việt, những người Trotskist ủng hộ Pháp, lực lượng chính trị Công giáo thân Pháp,... Ngày 19/6/1946, Báo Cứu Quốc của Tổng bộ Việt Minh đăng xã luận kịch liệt chỉ trích "bọn phản động phá hoại Hiệp định sơ bộ Pháp Việt mùng 6 tháng 3". Một trong những sự kiện nổi tiếng nhất trong chiến dịch truy quét các đảng phái đối lập là vụ án phố Ôn Như Hầu. Tướng Võ Nguyên Giáp bắt đầu chiến dịch truy quét các đảng phái đối lập bằng lực lượng công an và quân đội do Việt Minh kiểm soát với sự giúp đỡ của nhà cầm quyền Pháp. Ông Giáp cũng sử dụng các sĩ quan Nhật Bản trốn tại Việt Nam và một số vũ khí do Pháp cung cấp cho chiến dịch này.[12]

Để thương thảo nhằm thực hiện tạm ước 6/3, Hồ Chí Minh dẫn một đoàn đại biểu sang Pháp nhưng khi đoàn tới nơi, chính phủ Pháp vừa đổ và phải mất hàng tuần cho một chính phủ mới ra đời. Cùng thời gian đó, hôm 1/6, sau khi Hồ Chí Minh lên đường sang Paris, cao ủy Pháp d’Argenlieu đã phá tan những gì Sainteny vừa đạt được. d’Argenlieu ra tuyên bố tại Sài Gòn về một Cộng hòa Tự trị Nam Kỳ ly khai khỏi Việt Nam Dân chủ Cộng hòa. Với một chính thể phụ thuộc vào Pháp như vậy, đã không còn chỗ cho một cuộc bỏ phiếu trưng cầu ý dân ở Nam Bộ. Hồ Chí Minh tức giận nói với Salan, người tháp tùng ông sang Pháp: “Các người vừa ngụy tạo ra một "Alsace – Lorraine" và chúng ta đã bị đẩy vào "Cuộc chiến tranh trăm năm"